Latent JEPA: Abstract Future Prediction for Latent Reasoning in Chemistry
Latent JEPA：面向化学推理的抽象未来预测
🧭 潜在推理 · 联合嵌入预测
School of Data Science, The Chinese University of Hong Kong, Shenzhen · Shanghai Artificial Intelligence Laboratory
提出 Latent JEPA，在自回归学习中引入未来视图联合嵌入预测，提升化学推理与分子优化
📌 工作参考价值（4 点）
- 在 Agent 或搜索推荐场景中，可以训练一个连续 latent state 预测未来结果（点击、转化、下一步状态），作为辅助目标，而不要求逐字生成中间推理，降低 token 消耗并提升长期决策表征。
- 使用 joint embedding prediction 对齐当前 latent 表示与未来视图表示，可作为 LLM 微调的 regularizer，让模型对最终业务指标更敏感，适合电商场景中直接优化 GMV、留存等隐式目标。
- 多视图预测设计可以借鉴：同时预测后续文本（如用户下一步查询）和结构化结果（如商品 Semantic ID 或属性），在隐空间建立从意图到结果的映射，提升生成式推荐的一致性。
- 工程实现上，避免完整 CoT 显式生成，用 latent thought 预测未来视图，可在线上低延迟约束下保留规划能力，适合实时推荐或对话式购物助手。